\documentclass{hfutpaper}
\usepackage[urlcolor=blue]{hyperref}
\usepackage{threeparttable}
\usepackage{setspace}
\usepackage{titlesec}
\usepackage{float}
\newcommand{\upcite}[1]{\textsuperscript{\textsuperscript{\cite{#1}}}}
\usepackage{fancyhdr}
\titleformat{\section}{\large \heiti}{\chinese{section}、}{0em}{}
\begin{document}
\begin{center}
\LARGE
  \textbf{估计}\\
  \vspace{0.2em}
  \large
    eleve11 \\ 2019.08.01
  \end{center}

% \rule[0.1\baselineskip]{\textwidth}{0.5pt}
% \textbf{摘 \ 要}\\
% \large
% 微分几何是运用微积分的理论研究空间的几何性质的数学分支学科。
% 古典微分几何研究三维空间中的曲线和曲面，而现代微分几何开始研究更一般的空间——流形。
% 微分几何与拓扑学等其他数学分支有紧密的联系，对物理学的发展也有重要影响。爱因斯坦的广义相对论就以微分几何中的黎曼几何作为其重要的数学基础。
% \\
% \textbf{关键词}：厚德\quad 笃学\quad 崇实\quad 尚新\\
% \rule[0.1\baselineskip]{\textwidth}{0.5pt}

\section{开始}
统计学可以分为描述统计学与推断统计学两大分支。描述统计是一种对数据的概括，推断统计是一种对数据的推测。

\section{估计}
描述统计：
\begin{enumerate}
  \item 对数据进行一个整体性的把握
  \item 可以使用平均值或方差进行描述分布情况，但是易受异常值的影响
\end{enumerate}

样本$X_1, X_2, \ldots, X_n$都是随机变量，n为样本容量，数据的真实分布不同，没有给出其分布的具体函数形式的问题为\textbf{非参数估计问题}，另一方面，期望值与方差不确定但遵从正态分布的问题称为\textbf{参数估计问题}

\subsection{估计量的评选标准}
对于总体分布中的未知参数$\theta$可能提出不同的估计量，有三个用来评估的标准
\begin{enumerate}
  \item 无偏性，设待估计量$\theta \in \Theta$，设$\hat{\theta} = \hat{\theta}(X_1, \ldots, X_n)$是$\theta$的估计量，如果对于任意$\theta \in \Theta$，有$E(\hat{\theta}) = \theta$，则称$(\hat{\theta}$具有无偏性，并称$\hat{\theta}$是$\theta$的无偏估计量，否则为有偏估计量。
  \item 有效性，若估计值$\theta$的两个无偏估计值存在$E[(\hat{\theta}_1 - \theta)^2] \leq E[(\hat{\theta}_2 - \theta)^2]]$，则认为$\hat{\theta}_1$比$\hat{\theta}_2$好，也即$D(\hat{\theta}_1) \leq D(\hat{\theta}_2)$，也就是说两个无偏估计值以方差小的为好。
  设$\hat{\theta}_1 = \hat{\theta}_1(X_1, \ldots, X_n)$与$\hat{\theta}_2 = \hat{\theta}_2(X_1, \ldots, X_n)$都是$\theta$的无偏估计值，若对于任意$\theta \in \Theta$，有$D(\hat{\theta}_1) \leq D(\hat{\theta}_2)$，且至少对于某一个
  $\theta \in \Theta$，上式不等式不成立，则称$\hat{\theta}_1$较$\hat{\theta}_2$有效
  \item 相合性(一致性)，设$\hat{\theta} = \hat{\theta}(X_1, \ldots, X_n)$是$\theta$的估计值，对于任意$\theta \in \Theta$都满足：对于任意$\epsilon \ge 0$，有$\lim_{n \rightarrow \infty} P|\hat{\theta} -\theta \le \epsilon | = 1$
\end{enumerate}


\subsection{最小方差无偏估计}
由于输入数据X本身是随机值，因此输出的估计值$\hat{\theta}(x)$也只能是随机值，但是我们会希望这个值与正确答案(待估计值$\theta$)的偏差不会太大，也就是说$E[\hat{\theta}(x)]=\theta$，有了这个约束，求得的最优解称为最小方差无偏估计量。

\subsection{最大似然估计}
最大似然的意思是最为相似，即最大可能性。
弱化最优的定义，即使不是全能最优解，只要满足以下两条性质，就依然是一种可以接受的答案：
\begin{enumerate}
  \item 一致性
  \item 渐进有效性，当样本容量$n \rightarrow \infty$，$nE[(\hat{\theta} - \theta)^2]$收敛于理论边界。
\end{enumerate}

\subsection{贝叶斯估计}
贝叶斯估计是以单一数值作为评价的基准，使用贝叶斯估计，假定估计参数$\theta$也是一个随机变量，也就是说$\theta$是具有一定分布的(先验分布)。

\begin{thebibliography}{9}%宽度9
\bibitem{bib:one} 概率论与数理统计. 浙江大学. (2004)
\bibitem{bib:two} 程序员的数学2-概率统计. 平冈和幸 (2005)
\end{thebibliography}
\end{document}
